Faire de l’IA sur site : un bénéfice pas encore évident pour les clients | LeMagIT

LeMagIT - 22/05
La stratégie de Red Hat visant à réduire les coûts de l'inférence IA grâce à une infrastructure sur site et des modèles à poids ouvert présente un certain potentiel, mais doit encore faire ses preuves, selon les premières entreprises qui l’ont mise en œuvre.

Lors de la récente conférence Red Hat Summit 2026 qui s’est tenue mi-mai à Atlanta, plusieurs clients de l’éditeur au chapeau rouge sont venus témoigner du thème principal de cet événement : l’exploitation sur site d’infrastructures qui exécutent localement de l’IA, parce que ce serait moins cher et plus souverain qu’utiliser des services d’IA en cloud public. Sauf que ces premiers retours d’expérience ont brossé le tableau de projets réservés aux équipes qui avaient le cœur bien accroché.

BNP Paribas, par exemple, a détaillé son projet pluriannuel visant à passer d'une IA en cloud hybride à des modèles et une infrastructure d'IA entièrement hébergés entre ses murs. Pour la banque, la souveraineté de son IA était si importante, qu’elle était prête à s’investir dans des défis techniques dont elle ne se serait pas souciée en cloud.  

Et le fait est que son projet a posé dès le départ d'importants enjeux en matière d'infrastructure. La banque, qui traite quelque 1,5 milliard de tokens par jour, gère également des clusters de serveurs non virtualisés (« Bare-metal ») répartis sur trois datacenters à des fins de redondance. Son objectif, ambitieux, était de gérer les ressources matérielles en tant que service pour atteindre la même facilité d'utilisation que le cloud public. Et, ce, pour plus de 150 000 utilisateurs finaux.

Chez BNP, la difficulté de gérer le parc des clusters matériels

Pour y parvenir, BNP a entrepris de gérer un parc de clusters de machines à l’aide d’OpenShift HyperShift de Red Hat, une approche imbriquée qui héberge un sy...
[Courte citation de 8% de l'article original]

Loading...